Beyond Single Expert: Harmonizing Diverse Visual Priors in MLLMs for Spatial Understanding
超越单一专家：协调多模态大语言模型中的多样化视觉先验以增强空间理解
🧭 多模态空间理解 · 多先验融合
The University of Hong Kong
提出ViPS框架，通过高效代理和动态融合将多个视觉模型的互补先验集成到MLLM中，显著提升空间推理性能
📌 工作参考价值（4 点）
- 可借鉴多先验融合思想：在电商多模态商品理解中，同时接入多个视觉模型（如CLIP、DINOv2、SAM）提取互补特征，通过动态门控加权融合，提升商品属性识别和空间关系理解。
- 高效代理设计可降低线上成本：使用轻量级学生模型离线预生成多种先验特征，避免每次推理都调用重模型，适合推荐系统的大规模商品库特征提取。
- 动态融合机制适用于推荐多信号源：将用户行为序列、商品图像、文本描述等视为不同模态先验，通过上下文感知的融合模块（如注意力加权）注入推荐模型，增强冷启动物品表征。
- 多专家先验协调思路可迁移到Agent决策：在搜索推荐Agent中，不同模型（如召回、排序、过滤）给出各自的候选，利用动态融合策略综合多路信号，提升最终决策质量。